草庐IT

C++ 精度 : String to Double

全部标签

c++ - 与 sleep() 相比,定时器有更好的精度吗?

很久以前,我的程序中有一个错误。根本原因是C函数sleep(60);在极少数情况下,sleep时间会少于60秒。或者该函数确实导致线程休眠超过60秒,但操作系统自动更改了时钟(这似乎很可能,因为错误仅发生在XX::00::00上),又名它很少出现,并且只在“整小时”出现(sleep应该在>xh0m0s结束,它在x-1h59m59.99*s结束)。然后我的项目经理继续咆哮,他说了上百万次我们应该只使用计时器,而不是sleep。从那时起,我就接受了定时器比sleep()更准确的观点,但现在我觉得我应该寻求一些更权威的来源。所以:计时器比sleep更精确吗?(相关)它们是否在深层(在操作系统

C++ String to double atof 转换丢失精度?

C++不是我的语言,所以请原谅这个简单的问题。我在从字符串到double的atof转换中失去了精度,有人可以帮忙吗?stringlAmount;stringlSuspendedInt="131663.51";stringlAccruedInterest="0.0";doubledSuspendedInt=atof(lSuspendedInt.c_str());//PROBLEMHERE?doubledAccruedInterest=atof(lAccruedInterest.c_str());doubledTotal=dSuspendedInt+dAccruedInterest;cha

c++ - 将 8 个字符从内存加载到 __m256 变量中作为打包的单精度 float

我正在优化图像上的高斯模糊算法,我想用__m256内在变量替换下面代码中浮点缓冲区[8]的使用。什么系列的指令最适合这项任务?//unsignedchar*new_imageisloadedwithdata...floatbuffer[8];buffer[x]=new_image[x];buffer[x+1]=new_image[x+1];buffer[x+2]=new_image[x+2];buffer[x+3]=new_image[x+3];buffer[x+4]=new_image[x+4];buffer[x+5]=new_image[x+5];buffer[x+6]=new_i

c++ - float 末尾的点是否表示缺乏精度?

当我通过步进代码在VSC++中调试我的软件时,我注意到一些浮点计算显示为带有尾随点的数字,即:1232432.导致此结果的一个操作是:floatresult=pow(10,a*0.1f)/b其中a是一个很大的负数,大约在-50到-100之间,b通常在1左右。我读了一些关于float精度问题的文章。我的问题是尾随点是否是一种Visual-Studio方式告诉我这个数字的精度非常低,即在可变结果中。如果不是,那是什么意思?这在今天的工作中出现了,我记得有一个问题是较大的数字所以每次都会发生(我所说的“这个”是指尾随的点)。但我确实记得它发生在数字中有七位数字时。他们在这里指出float的精

ios - 使用 OpenCV matchTemplate 提高图像匹配精度

我正在制作一个iOS应用程序,它将在较大图像中找到较小(相似)图像的实例。例如,像这样的东西:我们在里面搜索的图片我们正在搜索的图片匹配的图片主要要考虑的是,smallImage大小将与bigImage中的目标大小匹配,但对象在bigImage中可能会稍微模糊(如因为它们并不总是相同的)。此外,我正在处理的图像比我这里的示例小很多,我要匹配的图像(smallImage)介于32x32像素和80x80像素之间,大图像大约为1000x600像素。除了可能被稍微遮挡之外,smallImage将以各种方式(大小、颜色、旋转等)与大图像中的对象匹配。我尝试了一些使用OpenCV的方法。特征匹配似

ios - 隐式转换丢失整数精度 : 'unsigned long' to 'int' - Error

我在这里看到了一些关于相同错误的问答,但没有一个有帮助。我仍然遇到同样的错误。我需要改变什么?这就是我现在所拥有的。错误与这一行有关:imageIndex=(imageIndex感谢您的帮助!#import"Photogallery.h"@interfacePhotogallery()@end@implementationPhotogallery@synthesizeimageView;intimageIndex=10;-(void)viewDidLoad{[superviewDidLoad];}-(IBAction)handleSwipe:(UIGestureRecognizer*)

ios - 如何使用 iPhone 传感器数据计算 GPS DoP(精度稀释度)?

我正在使用SensorLog应用从iPhone6收集数据。其他设备提供我在算法中使用的GPS_DOP(GPS精度稀释)的输出。但是,SensorLog提供locationVerticalAccuracy和locationHorizo​​ntalAccuracy。我想根据thisrating对我的数据进行分类.GPS_DOP是否与locationVerticalAccuracy相同,还是我应该以某种方式计算它?否则,是否有基于度量误差的DoP粗略计算? 最佳答案 不,GPS_DOP与水平精度估计不同。DOP是一个没有单位的因子,表示因

ios - 按国家代码将 NSDecimalNumber 格式化为货币而不丢失精度

所以现在我有以下代码:-(NSString*)convertToLocalCurrencyFormat:(NSDecimalNumber*)result{NSNumberFormatter*formatter=[[NSNumberFormatteralloc]init];formatter.numberStyle=NSNumberFormatterCurrencyStyle;formatter.currencyCode=self.comparisonCurrency;formatter.usesSignificantDigits=YES;return[formatterstringFr

objective-c - 使用 NSNumberFormatter numberFromString 的精度错误

为什么以下代码生成“numberFromString=9.390000000000001”而不是“numberFromString=9.39”?NSNumberFormatter*numFormatter=[[NSNumberFormatteralloc]init];[numFormattersetNumberStyle:NSNumberFormatterDecimalStyle];[numFormattersetPositiveFormat:@"$##0.00"];[numFormattersetNegativeFormat:@"-$##0.00"];NSNumber*nTCA=[n

ios - 有没有办法在 iOS 上接收亚精度触摸事件?

当-touchesMoved:withEvent:被调用时,我只从[touchlocationInNode:self];收到四舍五入的数字。有没有办法接收更精确的事件?我尝试放大和缩小UIWindow以及接收事件的View。是否有人找到了可以提供更高精度事件的技巧? 最佳答案 如果我理解您的意思,您希望触摸事件的精度高于像素。但是触摸事件总是以像素为单位。触摸屏不够准确,无法告诉您您触摸了两行像素之间的中间位置,而且您的手指很容易触摸到多个像素宽的区域。我不认为你可以做任何事情来“欺骗”它给你某种更准确的精度。